ภายหลังสำเร็จการศึกษา นายประสิทธิ์ ได้รับราชการศาลยุติธรรมเช่นเดียวกับพระยาอิศรภักดีธรรมวิเทต กรรมการศาลฎีกา ญาติผู้พี่ข้างฝ่ายบิดา ระหว่างปี พ.ศ. 2480 ถึงปี พ.ศ. 2490 โดยเริ่มทำงานในตำแหน่งผู้พิพากษาในกระทรวงยุติธรรม ก่อนที่จะเลื่อนตำแหน่งเป็น ผู้พิพากษาศาลแพ่ง จนต่อมาได้รับการแต่งตั้งให้ดำรงตำแหน่งผู้พิพากษาศาลจังหวัดพิจิตร และ ผู้พิพากษาศาลจังหวัดสงขลา ตามลำดับ